"One Thing" được sáng tác bởi Rami Yacoub, Savan Kotecha cùng với Carl Falk trong khi được sản xuất bởi hai người đầu. Bài hát ra mắt trước công chúng lần đầu trên BBC Radio 1 ngày 21 tháng 11 năm 2011.[1] Ngoài ra One Direction cũng thông báo sẽ phát hành "One Thing" được phát hành dưới dạng đĩa đơn (single) thứ ba trích từ album đầu tay của nhóm, Up All Night (2011) vào ngày 22 tháng 11 năm 2011.[2] Hai thành viên Horan và Payne thì nói rằng "One Thing" là ca khúc mà họ yêu thích nhất từ album. Hãng đĩa của nhóm, Syco nói rằng "One Thing là ca khúc nhạc pop đang chuẩn bị bùng nổ với giai điệu hấp dẫn mà bạn sẽ không thể quên."[3] Sau đó vào tháng 1 năm 2012 "One Thing" được phát hành trên các đài radio rộng khắp châu Âu. Ngày 25 tháng 12, mặt B của ca khúc được thông báo là "I Should Have Kissed You."[4]

Theo tờ nhạc của "One Thing", ca khúc được sáng tác trên hợp âm Rê trưởng với nhịp đập trung bình là 128 nhịp một phút. Các nhạc cụ có trong bài hát gồm piano và ghita cùng với giọng ca của năm anh chàng One Direction.[5] Bài hát có sự ảnh hưởng của thể loại nhạc rock.[6]